Die gewaltsame Eskalation des Nahost-Konflikts erzeugt und verstärkt Hass, der in Form von Videos oder Kommentaren über Social Media und sonstige Plattformen verbreitet wird. Die Masse aktueller Rechtsverstöße ist ein Beleg für unzureichende Vorsorgemaßnahmen vieler Plattformen. Dies fließt in die bereits laufenden Verfahren der Bundeszentrale für Kinder und Jugendmedienschutz (BzKJ) gegen Anbieter ein, die ihren Vorsorgepflichten nicht angemessen nachkommen.
Im Rahmen ihrer Aufsichtstätigkeit hat die Bundeszentrale für Kinder- und Jugendmedienschutz bei zahlreichen Plattformen Verstöße gegen die gesetzlichen Vorgaben festgellt und bereits im Frühjahr entsprechende Verfahren eingeleitet. Vor allem bei den anbieterseitigen Melde- und Abhilfesystemen besteht Handlungsbedarf. Nutzende müssen problematische Inhalte beispielsweise überall auf einer Plattform leicht melden können. Rechtswidrige Inhalte müssen die Anbieter unverzüglich löschen. Häufig sind die Meldeoptionen jedoch nicht ständig verfügbar und rechtswidrige Inhalte bleiben zu lange online.
Sebastian Gutknecht, Direktor der Bundeszentrale für Kinder- und Jugendmedienschutz:
„Viele Plattformanbieter kommen ihrer Verantwortung für den Schutz ihrer jungen Nutzerinnen und Nutzer nicht ausreichend nach. Aktuell werden Kinder und Jugendliche in digitalen Diensten mehr denn je mit zutiefst verstörenden Bildern und Hassbotschaften konfrontiert, die trotz Meldung nicht schnell genug entfernt werden. Das ist nicht akzeptabel. Die BzKJ drängt im Bereich der strukturellen Vorsorgemaßnahmen auf effektive Lösungen und wird im Rahmen ihrer Aufsichtstätigkeit als letztes Mittel auch Bußgelder verhängen.“
Plattformanbieter müssen strukturelle Vorsorgemaßnahmen zum Schutz von Kindern und Jugendlichen in ihre Angebote integrieren. Dazu verpflichtet sie sowohl das Jugendschutzgesetz (JuSchG) als auch der europäische Digital Services Act (DSA). Die Bundeszentrale für Kinder- und Jugendmedienschutz übt auf Basis des Jugendschutzgesetzes die Aufsicht über diese strukturellen Vorsorgemaßnahmen aus. Neben der Überprüfung von Melde- und Abhilfesystemen betrifft dies auch die Beurteilung weiterer Vorsorgemaßnahmen wie Elternbegleitungstools, sichere Voreinstellungen, Hinweise auf anbieterunabhängige Beratungs- und Hilfsangebote oder kindgerechte AGB. Plattformen mit mehr als 45 Millionen Nutzenden pro Monat werden gemäß dem DSA direkt von der EU-Kommission beaufsichtigt.
Pionierarbeit der BzKJ zu strukturellen Vorsorgemaßnahmen
Die Kriterien der Bundeszentrale für Kinder- und Jugendmedienschutz für die Überprüfung anbieterseitiger struktureller Vorsorgemaßnahmen wurden auf Basis einer vorangegangenen Gefährdungsanalyse entwickelt. In dieser Analyse hat die BzKJ die Risiken digitaler Medien für Kinder und Jugendliche wissenschaftlich und gemeinsam mit zahlreichen Akteurinnen und Akteuren des Kinder- und Jugendmedienschutzes erfasst und systematisiert. Damit hat die BzKJ seit ihrer Einrichtung im Jahr 2021 Pionierarbeit im Kontext struktureller Vorsorgemaßnahmen für Kinder und Jugendliche geleistet.
Die Prüfkriterien für strukturelle Vorsorgemaßnahmen sind auf der Website der BzKJ in der Rubrik „Anbieterpflichten“ und dort unter „Vorsorgemaßnahmen“ abrufbar. Die Grundlage der Gefährdungsanalyse ist im „Gefährdungsatlas“ der BzKJ publiziert, abrufbar auf der Website der BzKJ in der Rubrik „Publikationen“.
Diese Pressemitteilung finden Sie auch auf der Website der BzKJ.